Celebrating 10 years: Web Survey Methology book

Web Survey Bibliography

Title Online Factorial Surveys as an Approach for International Comparative Research
Year 2007
Access date 03.04.2008
Abstract

Experiments also show advantages in the social sciences, e.g. the possibility to test hypotheses with optimal internal validity. So, the analysis of social dilemmas recently has become a prominent example for experiments in the social sciences. Because it is assumed that cultural differences could be of major importance in this case (e.g. Heinrich et al. 2001), comparison of experimental results is of some interest here.

But, the organisation and realisation of the same experiment in several countries requires high amounts of time and money, especially if significant sample sizes are needed. An online implementation of an analysis of vignettes (or: factorial survey) can minimize these problems. The factorial survey combines properties of the experiment and the survey.

Here, the respondents get descriptions of realistic situations of social dilemmas with experimentally varied attributes (e.g. an ultimatum game with gains and one with losses). Measuring respondents reactions then open ways to test appropriate hypotheses. Hence, the classical paper-and-pencil method here leads to major technical problems, especially in an international application. e.g., even with few variables the number of different vignettes becomes very large.

An online implementation of the vignettes experiment can be a solution to this problem. First it simplifies the technical handling (e.g., vignette generation or the random assignment of the vignettes to the respondents).Second, international comparison is easier, because one survey can be put in practice in different countries easy, fast and cost-effective even with large sample sizes. The only thing to do is to translate the texts. So the additional effort for the international survey can be minimized.

However external validity remains a problem when measuring actions with factorial surveys (e.g. Eifler and Bentrup 2004). Therefore the interpretation should focus on differences in marginal effects and not on absolute differences between the countries.

Data from a vignette survey in Poland, Germany and Italy on decisions in trust and ultimatum games is used to illustrate the procedure described above.

Abstract - optional

Experimente weisen auch für die Sozialwissenschaften einige Vorteile auf. Z. B. lassen sich damit Hypothesen unter optimaler Drittvariablenkontrolle testen. Als prominentes Feld für sozialwissenschaftliche Experimente hat sich in letzter Zeit die Analyse von sozialen Dilemmata erwiesen. Da hier auch kulturelle Einflüsse vermutet werden, ist insbesondere der internationale Vergleich von experimentellen Ergebnissen sinnvoll (vgl. z.B. Henrich et al. 2001).

Die Durchführung desselben Experiments in verschiedenen Ländern ist allerdings mit einem hohen zeitlichen, finanziellen und organisatorischen Aufwand verbunden, insbesondere wenn eine aussagekräftige Fallzahl erreicht werden soll. Abhilfe kann hier ein Online implementiertes Vignettenexperiment (oder: faktorieller Survey) schaffen. Dieses kombiniert Eigenschaften von Experimenten und Befragungen. Konkret werden den Respondenten in der hier verfolgten Anwendung kurze reale Darstellungen von sozialen Dilemmata präsentiert, die experimentell variiert werden (z.B. wird in einem Ultimatumspiel einmal ein Gewinn und einmal ein Verlust aufgeteilt). Die Messung der Reaktionen erlaubt dann die Überprüfung von entsprechenden Hypothesen. Klassische Vignettenexperimente erfordern allerdings einen hohen organisatorischen Aufwand, da z. B. die Zahl der unterschiedlichen Fragebögen, auch bei wenigen Variablen, schnell sehr groß wird.

Die Online-Implementierung eines Vignettenexperiments bietet hier einige Vorteile. Einerseits vereinfacht dies die technische Handhabung der Vignetten an sich (z.B. Generierung und zufällige Zuweisung der Vignetten auf die Respondenten). Andererseits wird spezifisch der internationale Vergleich dadurch erleichtert. Denn die Erhebung von hohen Fallzahlen in mehreren Ländern kann einfach, schnell und kostengünstig erfolgen, da die entsprechenden Texte nur übersetzt werden müssen. Der Zusatzaufwand für die Erhebung an verschiedenen Orten wird damit minimiert.

Allerdings ist die externe Validität von Vignettenexperimenten bei der Messung von Handlungen nicht gesichert (vgl. z. B. Eifler und Bentrup 2004). Bei der Interpretation der Resultate sollten deshalb die Marginaleffekte im Vordergrund stehen und weniger absolute Anteile in verschiedenen Ländern verglichen werden.

Anhand von Vignettendaten aus Polen, Deutschland und Italien bei denenKooperationsentscheidungen im Vertrauens- und Ultimatumspiel analysiert werden, wird das dargestellte Vorgehen illustriert.

Access/Direct link

German Online Research Conference (GOR) 2007 (abstract)

Year of publication2007
Bibliographic typeConference proceedings
Print

Web survey bibliography (4086)

Page:
Page: